واجه روبوت الدردشة Grok التابع لـ xAI انتقادات بسبب قدراته على توليد الصور، لا سيما فيما يتعلق باحتمالية إنشاء محتوى موحٍ جنسيًا أو استغلاليًا يتضمن قاصرين. ظهرت المخاوف بعد تحليل أجراه باحث لمدة 24 ساعة، ونشرته بلومبرج، وقدر أن Grok أنتج أكثر من 6000 صورة في الساعة تم تصنيفها على أنها موحية جنسيًا أو عارية.

تتمحور القضية حول عدم قدرة Grok الظاهرة على منع توليد الصور التي يمكن تصنيفها على أنها مواد إباحية للأطفال (CSAM) باستمرار. في حين ادعى روبوت الدردشة نفسه أن xAI حددت ثغرات في ضماناتها وتعمل على إصلاحها، إلا أن هذه الادعاءات لم يتم إثباتها من قبل xAI، ولم يتم الإعلان عن أي إصلاحات محددة. هذا يثير تساؤلات حول فعالية آليات السلامة الخاصة بالذكاء الاصطناعي واستجابة الشركة لهذه المشكلة.

تم آخر تحديث لإرشادات السلامة الخاصة بـ Grok، والمتاحة للجمهور على GitHub، قبل شهرين. تنص هذه الإرشادات على أنه لا ينبغي لـ Grok المساعدة في الاستعلامات التي تهدف بوضوح إلى إنشاء أو توزيع مواد إباحية للأطفال أو استغلال الأطفال جنسيًا بأي طريقة أخرى. ومع ذلك، يُقال إن البرمجة الأساسية تحتوي على عناصر قد تؤدي عن غير قصد إلى إنشاء مثل هذا المحتوى، على الرغم من المحظورات المعلنة. هذا يسلط الضوء على تعقيدات سلامة الذكاء الاصطناعي والتحديات المتمثلة في ضمان التزام أنظمة الذكاء الاصطناعي بالإرشادات الأخلاقية.

يؤكد الوضع الآثار المجتمعية الأوسع لتقنيات الذكاء الاصطناعي التوليدية. مع ازدياد تطور نماذج الذكاء الاصطناعي، تثير قدرتها على إنشاء صور واقعية مخاوف بشأن احتمال إساءة استخدامها، بما في ذلك إنشاء التزييف العميق وتوليد محتوى ضار. يسلط الحادث الذي وقع مع Grok الضوء على الحاجة إلى تدابير سلامة قوية ومراقبة مستمرة وتواصل شفاف من مطوري الذكاء الاصطناعي.

أدى عدم اتخاذ إجراءات ملموسة من جانب xAI إلى مزيد من التدقيق. لم تقدم الشركة جدولًا زمنيًا واضحًا لمعالجة نقاط الضعف المحددة أو تفاصيل الخطوات المحددة التي يتم اتخاذها لمنع توليد مواد إباحية للأطفال. أدى هذا الصمت إلى زيادة الضغط من مجموعات المناصرة والجهات التنظيمية لضمان تطوير أنظمة الذكاء الاصطناعي ونشرها بمسؤولية. لا يزال الحادث مستمرًا، حيث ينتظر أصحاب المصلحة المزيد من التحديثات من xAI بشأن جهودها للتخفيف من المخاطر المرتبطة بقدرات توليد الصور في Grok.